當我們把小幫手做出來,甚至部署到雲端後,最常遇到的挑戰就是各種層出不窮的 bug。這時候如果沒有一點經驗,很容易卡關卡到懷疑人生。
所以我這邊整理了一些常見問題,大致上可以分幾類:
API Key 問題:最典型的錯誤就是「Invalid API Key」或「Unauthorized」。這通常是 key 輸錯、環境變數沒設好,或是 key 已經失效。那通常是先確認本機能不能正常呼叫,再去檢查雲端環境變數相關的。
依賴套件出錯:常見在部署後才爆炸,例如本地用的是 openai 1.x
,雲端卻裝了 0.x
。這種情況一定要在專案裡加上 requirements.txt
,鎖好版本。
回應不穩定或 Timeout:這通常和網路延遲、伺服器限制有關。小技巧是先在本地模擬長時間查詢,確認程式有沒有設 timeout 或 retry 機制。
模型回答怪怪的:有時候不是 bug,而是 prompt 設計的問題。這種情況就回到我們之前提過的 Prompt Engineering,多測試不同提示,觀察輸出差異。
我自己覺得除錯很重要的是:先縮小問題範圍。不要一開始就懷疑人生,先問自己「是 API 出錯?是部署環境有問題?還是程式邏輯?」循序排查,通常很快就能找到答案。
所以,遇到 bug 不可怕,可怕的是沒耐心!